((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Anna Tong
Le laboratoire d'intelligence artificielle OpenAI forme une nouvelle équipe pour créer des processus démocratiques afin de façonner la façon dont son logiciel d'IA devrait être gouverné pour tenir compte des préjugés et d'autres facteurs, a déclaré la société MSFT.O soutenue par Microsoft dans un billet de blog mardi.
L'équipe "Collective Alignment" est une continuation du travail d'un programme de subvention pour le financement d'expériences de processus démocratiques qui a été annoncé en mai 2023, a déclaré l'entreprise basée à San Francisco. Le programme s'est achevé récemment.
"Alors que nous poursuivons notre mission vers des modèles superintelligents qui pourraient potentiellement être considérés comme des parties intégrantes de notre société ... , il est important de donner aux gens la possibilité de contribuer directement", a déclaré à Reuters Tyna Eloundou, ingénieur de recherche et membre fondateur de la nouvelle équipe d'OpenAI.
Pour s'assurer, par exemple, que seuls les humains peuvent voter, OpenAI pourrait s'associer à Worldcoin, un projet de crypto-monnaie fondé par Sam Altman, directeur général d'OpenAI, qui permet de faire la différence entre les humains et les robots d'intelligence artificielle, a déclaré Teddy Lee, un chef de produit qui est l'autre membre de l'équipe composée de deux personnes.
M. Lee a précisé que l'équipe n'avait pas encore prévu d'intégrer Worldcoin.
Depuis le lancement de ChatGPT par OpenAI à la fin de l'année 2022, la technologie d'IA générative capable de produire une prose étonnamment autoritaire à partir de textes a captivé le public, faisant du programme l'une des applications à la croissance la plus rapide de tous les temps.
Toutefois, la capacité de l'IA à créer des images "deepfake" et d'autres informations erronées suscite des inquiétudes , en particulier à l'approche de la campagne électorale américaine de 2024. Les critiques affirment que les systèmes d'IA tels que ChatGPT sont intrinsèquement biaisés en raison des données utilisées pour façonner leurs opinions, et les utilisateurs ont trouvé des exemples de résultats racistes ou sexistes provenant de logiciels d'IA.
La nouvelle équipe de l'OpenAI cherche activement à recruter un ingénieur de recherche et un chercheur scientifique, a indiqué M. Eloundou. L'équipe travaillera en étroite collaboration avec l'équipe "Human Data" d'OpenAI, qui met en place l'infrastructure permettant de recueillir des données humaines sur les modèles d'IA de l'entreprise, ainsi qu'avec d'autres équipes de recherche.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer